MIT 테크놀로지 리뷰 뉴스레터는 디지털 위험에 대한 우려로 확산 중인 자녀 모니터링 앱의 성과와 부작용을 짚고, 천연가스 기반 비료 생산의 취약성과 기후 친화적 대안을 다룹니다. 뉴욕시 초·중등 학교 AI 금지, 대만 반도체 업계 겨냥 중국 불법 네트워크, 우버의 영국 로보택시 상용 출시 등 주요 AI 뉴스도 함께 소개합니다.
미국 부모들의 최대 우려는 소셜미디어와 인터넷 안전 문제로, 이에 따라 아이의 문자·사진·채팅을 AI로 검열해 부모에게 경고하는 콘텐츠 모니터링 앱 시장이 급성장하고 있다. 이러한 앱들은 자살 시도 예방, 범죄자 검거 등 실제 성과를 냈지만, 오탐으로 인한 처벌, 신뢰 붕괴, 성인기까지 이어지는 불안 등 부작용도 초래하고 있어 균형 잡힌 설계가 요구된다.
본 연구는 아동이 대형 언어 모델(LLM) 챗봇을 인간처럼 인식하고 대하는 '의인화' 현상의 원인과 결과를 체계적으로 분석했습니다. 연구 결과, 챗봇의 인간과 유사한 페르소나나 정서적 지원 기능이 아동의 의인화를 유발하며, 이는 사회적 유대감 형성 등의 긍정적 효과와 더불어 도덕적 혼란 등의 부작용을 초래할 수 있음을 밝혀냈습니다. 이러한 발견은 아동의 발달 단계와 웰빙을 고려한 안전하고 지속 가능한 어린이용 AI 챗봇 설계에 필수적인 가이드라인을 제공합니다.